Bridging Exploration and Persona: Information-Directed Dueling for Test-Time Agent Personalization
桥接探索与人格:测试时 Agent 个性化的信息导向对决
🧭 Agent 个性化 · 信息导向 dueling bandit
The Chinese University of Hong Kong, Shenzhen · University of Copenhagen · City University of Hong Kong · East China Normal University
提出 ID-TAP,将信息导向采样与神经 dueling bandit 结合,在十轮二元比较内高效适配 agent persona
📌 工作参考价值(4 点)
- 在电商客服、推荐理由生成或文案创作等场景,若需要在线选择 persona、话术风格或 prompt 模板,可用成对比较(A/B 偏好)作为轻量反馈信号;相比点击或评分,二元偏好收集成本低且噪声小。
- 借鉴 BT explorer + 信息导向采样选择 challenger:不要随机探索或纯贪心 exploitation,在固定比较预算(如 10 次)下能显著提升样本效率;该策略可直接嵌入在线文案/推荐理由的风格优选。
- 对新 query 或新用户冷启动,利用相似度加权 warm start 将历史 query 的比较证据迁移过来,比从零学习更快;电商多 query 场景中 query embedding 相似度即可作为工程上的加权依据。
- 模型结构上采用 query-conditioned 共享网络:跨 query 共享统计强度,同时保留 query-specific score,能处理 query 条件化偏好,避免全局单模型丢失个性化差异;可作为 prompt/persona 精排器的轻量在线更新模块。